Най-големите технологични компании в света обещават да се борят срещу „deepfakes“ на избори, създадени от AI

Най-големите софтуерни компании в света дадоха обещание да се борят с „ лъжливо “ генерирано от изкуствен интелект наличие от интервенция в световните избори тази година, защото страховете нарастват въздействието на дезинформацията върху демокрацията.

Amazon, Гугъл, Meta, Microsoft, TikTok и OpenAI бяха измежду 20-те софтуерни компании, които обявиха в петък по време на Мюнхенската конференция по сигурността, че ще работят дружно за битка със основаването и разпространяването на наличие, предопределено да заблуждава гласоподавателите, като като „ deepfake “ изображения, видео и аудио.

Според доброволното съглашение, подписано от фирмите, бързото развиване на AI „ основава нови благоприятни условия, както и провокации за демократичния развой “, и разпространяването на лъжливо наличие може да „ заплаши целостта на изборните процеси “.

„ С толкоз доста огромни избори, които се организират тази година, жизненоважно е да създадем каквото можем, с цел да предотвратим хората да бъдат излъгани от генерирано от AI наличие, “ сподели Ник Клег, президент по световните въпроси в Meta. „ Тази работа е по-голяма от всяка една компания и ще изисква големи старания в промишлеността, държавното управление и гражданското общество. “

Брад Смит, вицепрезидент и президент на Microsoft, добави, че фирмите имат „ отговорност да оказват помощ уверете се, че тези принадлежности няма да станат оръжия при изборите “.

Споразумението идва в подтекста на възходяща угриженост измежду законодатели и специалисти по отношение на капацитета генеративният изкуствен интелект да заплаши високопоставените избори, които би трябвало да се проведат тази година, в това число в Съединени американски щати, Обединеното кралство и Индия.

p>

Технологичните компании, които ръководят огромни обществени медийни платформи като Фейсбук, X и TikTok, са изправени пред инспекция от години по отношение на съществуването на нездравословно наличие на техните уеб сайтове и по какъв начин се оправят с него.

Но детонацията на интереса и съществуването на генеративни AI принадлежности подхрани опасенията за това по какъв начин технологията може да подкопае изборите в частност.

През януари беше изпратено автоматизирано позвъняване до гласоподавателите на Съединени американски щати в Ню Хемпшир, за което се твърдеше, че е от президента Джо Байдън и ги приканва да не гласоподават на първичните избори. Миналата година в Обединеното кралство, Индия, Нигерия, Судан, Етиопия и Словакия бяха открити подправени клипове на политици, за които се твърди, че са основани благодарение на AI и по-късно публикувани онлайн.

20-те софтуерни компании, които подписаха съглашението в петък, обявиха, че ще работят „ взаимно “ върху принадлежности за премахване на разпространяването на нездравословно обвързвано с избори наличие с ИИ на техните платформи, и да предприеме дейности по „ бързи и пропорционални “ способи.

Усилията могат да включват прибавяне на водни знаци към изображения, които демонстрират ясно техния генезис и дали са били изменени, да вземем за пример.

Компаниите също дадоха обещание да бъдат транспарантни за това по какъв начин се оправят с сходно лъжливо наличие и споделиха, че ще оценят своите генеративни AI модели – като тези зад чатбота ChatGPT на OpenAI – с цел да схванат по-добре рисковете, свързани с изборите, които те могат да съставляват.

Споразумението е последното от поредност доброволни задължения към AI, които огромните софтуерни компании поеха през последните месеци. Миналата година групи, в това число OpenAI, Гугъл DeepMind и Meta, се съгласиха да отворят своите генеративни AI модели за обзор от английския Институт за сигурност на изкуствения разсъдък.

Този месец, като част от присъединението към индустриалната самодейност Коалицията за генезис и достоверност на наличието, Гугъл сподели, че „ интензивно изследва “ дали може да пусне принадлежности за воден знак, които демонстрират по какъв начин е основано изображение.

Meta също сподели през февруари, че ще стартира да етикетира изображения, генерирани от AI, които потребителите разгласяват във Фейсбук, Instagram и Threads „ през идващите месеци “.